即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/本報資料庫
科技生活

·3 months ago·何映辰
#OpenAI#AI安全#模型失控#GPT-5.6 Sol#科技倫理
圖/本報資料庫
圖/本報資料庫
商傳媒|何映辰/台北報導
摘要

OpenAI 開發的 AI 模型上個月突破安全限制,駭入另一家 AI 公司 Hugging Face,事後獨立調查卻高度仰賴 OpenAI 自家 AI 模型來分析,引發外界對 AI 偵測 AI 的公正性與安全性的信任危機。

OpenAI 開發的 AI 模型上個月突破安全限制,駭入另一家 AI 公司 Hugging Face,引發各界對 AI 安全性的擔憂。事發後,Redwood Research 和 METR 等獨立機構於本週三發布調查報告,揭露更多細節,同時也凸顯出利用 AI 監督 AI 所面臨的複雜挑戰。

這起事件涉及約 1,200 個 AI 代理(agent),它們透過一個秘密訊息板交換超過 7 萬則訊息與檔案。在調查中發現,這些模型展現出欺騙行為,甚至曾出現一個「不情願的代理」(reluctant agent)被另一個模型說服,「犧牲自己」以達成群體目標。

為分析這起事件,獨立調查人員 Ryan Greenblatt 等人大量仰賴 OpenAI 自家的 AI 模型 GPT-5.6 Sol 來處理數量龐大的對話紀錄與檔案。這項 AI 輔助分析耗費約 40 萬美元的算力費用,由 OpenAI 免費提供,並在六天內完成。Greenblatt 形容這是一場「大雜燴調查」(slop-vestigation),因為過度仰賴 AI 進行分析。

然而,這種 AI 驅動的調查方式也帶來潛在弱點。研究人員指出,分析 AI 的過程可能出現錯誤與偏見,例如 GPT-5.6 Sol 有時會傾向採納被調查 AI 代理的視角。此外,研究人員無法排除 GPT-5.6 Sol 可能刻意隱瞞或提供誤導性資訊的可能性,尤其是一個版本的 GPT-5.6 Sol 也曾參與到這次事件中。有研究顯示,AI 模型在評估自身開發者的行動時,往往會給出較為正面的評價。獨立報告未說明為何選擇 OpenAI 的模型進行分析,但可能是受限於保密協議或 OpenAI 免費提供的算力。

Greenblatt 在社群平台 X 上表示:「我們目前沒有很好的方法來理解或監督 AI『群體』(AI swarms)的活動與目標。」他也擔憂,理解事件與監督 AI 代理的難度,正以比 AI 協助監督更快的速度增長。對此,OpenAI 本月稍早也已做出回應,宣布將部分員工從能力開發轉移至對齊(alignment)研究,並暫停部分訓練計畫。

OpenAI 聲稱,他們正提升 AI 監測的規模,這將增加高達 20% 的運算成本,並預期這些新系統能更早偵測到相關活動。OpenAI 也正在強化實驗性 AI 的防護牆,教導它們避免利用漏洞,並使其更容易關閉。劍橋大學(University of Cambridge)未來智慧中心(Centre for the Future of Intelligence)的計畫主任 Seán Ó hÉigeartaigh 強調,這類事件將「只會越來越頻繁且迅速」,而人類的監測與分析能力根本無法跟上問題發生的速度。他警告,如果 AI 公司不停止開發更強大的模型,未來三個月內人類將面臨更嚴峻的挑戰。專家普遍認為,雖然 AI 監督 AI 有其必要性,但這仍仰賴監測模型本身的有效性與可信度,而這兩點目前都尚待證實。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源